AI Engineering

Serverless 上的長連線:CareerWise 用 SSE 傳送 AI 的回答

AI 對話往往是幾百字,一次傳完要等很久。本文探討 CareerWise 的串流架構:先看 server 端怎麼用 async generator 把 LLM 逐個 token 吐出的回答,依型別轉成 text、status、goal_decomposed 等結構化事件,再以 data: ... 寫進 ReadableStream;接著看 client 端怎麼用 fetch + Reader 接到這條流,用 buffer 把被截斷的 chunk 組成完整事件、逐段累進畫面;最後探討為什麼在 serverless 的 AI 對話場景裡,純 HTTP、可帶認證 header、斷線重連成本低的 SSE,是比 WebSocket 更務實的選擇。

Server-Sent Events SSE WebSocket CareerWise Agentic AI Serverless Next.js AI AI Engineering Firebase Firebase Hosting LLM Streaming LLM · 留言


AI 為什麼需要人類救場:Human-in-the-Loop 架構探討

AI 不是萬能的,遇到信心不足的邊界案例就得找人求救。Human-in-the-Loop 架構如何設計升級機制、信心閥值與回饋迴路,以及工程實作上的規模化、隱私與自動化悖論挑戰。

Agentic Design Pattern Agentic AI HITL Human-in-the-Loop AI Engineering AI 幻覺 Architecture Design Pattern · 留言


CareerWise 的目標設定與監控:從設計到實作

把 Agent Design Pattern 的目標設定與監控模式落實到 CareerWise 中。六項設計決策,讓 CareerWise 從被動回答變成主動教練。

CareerWise Agentic AI Goal Setting AI 幻覺 Design Pattern Architecture AI Engineering · 留言


Agent 的目標設定與監控:從自我審查到多代理協作

AI 代理要從被動工具進化為主動系統,核心在於目標設定與監控。從單一 agent 的自我審查到五人 AI 團隊的多代理協作,拆解這套機制的設計與限制。

Agentic Design Pattern Agentic AI Multi-Agent AI AI Engineering AI 幻覺 Architecture Design Pattern · 留言


grill-me + graphify:AI 代理開發的拷問與地圖

grill-me 與 graphify 是 AI 代理工作流中兩個互補的開源模組。grill-me 用決策樹拷問把需求問到透徹,graphify 把程式庫轉成知識圖譜讓 AI 看懂全局。兩個合起來用比單用任何一個更強。

Agentic AI Graphify grill-me CareerWise LLM AI AI Engineering RAG Retrieval Augmented Generation 檢索增強生成 · 留言


自主 AI 代理的進化之路:從架構設計、意圖分流到平行加速

分析自主 AI 代理的核心架構,從代理五步循環與四層進化等級出發,探討四種路由機制的設計取捨,再到平行化模式與非同步加速的工程實踐,最後總結和展望多代理時代的錯誤防禦與五大未來假設。

Agentic Design Pattern Prompt Chaining Embedding Based Routing AI 幻覺 Routing Reflection Agentic AI Multi-Agent AI AI Engineering Architecture CareerWise Design Pattern LLM · 留言


Graphify:讓 AI 掌握程式碼結構,打破「文字碎紙機」的 RAG 效能天花板

Graphify 如何用知識圖譜(Knowledge Graph)取代傳統 RAG,讓 AI 真正讀懂程式碼結構,實現 71.5 倍的 Token 壓縮效益。

AI Graphify RAG Retrieval Augmented Generation 檢索增強生成 AI 幻覺 Agentic AI Knowledge Graph LLM AI Engineering Agent to Agent · 留言


用 OpenCode + OpenSpec 落實省時省力的規格驅動開發 (SDD)

最近實作 side Pproject —— PunchGo,一個追求極致流暢的拍照打卡 app,過程中嘗試許多 AI 工具,在這將分享如何利用 opencode 與 openspec 進行規格驅動開發(SDD),從需求討論到程式碼實作與測試的過程。

OpenCode OpenSpec Agentic AI 規格驅動開發 SDD TDD AI AI Engineering Agent to Agent Unit Test 單元測試 自動化測試 front-end testing PunchGo · 留言